Selepas Amerika Syarikat memasuki Perang Dunia II, Presiden Roosevelt memutuskan yang beliau memerlukan seorang pegawai kanan tentera sebagai penasihat peribadi dan penghubung antara ketiga-tiga ketua cabang perkhidmatannya, Laksamana Ernest King daripada Tentera Laut, Jeneral George Marshall daripada Tentera Darat dan Jeneral Henry H. Arnold daripada Angkatan Udara Tentera Darat. Ketua-ketua cabang perkhidmatan menentang langkah ini sehinggalah Marshall mencadangkan bahawa hanya Leahy akan diterima bagi jawatan ini. Pada 6 Julai 1942, Leahy telah dilantik sebagai Ketua Turus kepada Panglima Tertinggi Tentera Darat dan Tentera Laut AS, iaitu Presiden Amerika Syarikat.

Leahy menghabiskan masa D-Day, 6 Jun 1944, di kampung halamannya di Hampton, Iowa. Publisiti baik "perjalanan sentimental" ini merupakan sebahagian daripada usaha-usaha tipu daya di sekitar pencerobohan Bersekutu di Eropah. Idea ini adalah untuk melalaikan sebarang ejen Jerman di Washington, DC, atau di tempat lain di Amerika Syarikat agar mempercayai bahawa operasi ini tidak akan berlaku kerana seorang pegawai yang penting berada diluar ibukota.

Leahy telah dilantik sebagai Laksamana Armada Tentera Laut A.S. yang pertama pada 15 Disember, 1944 dan sekaligus menjadi pegawai lima bintang pertama dalam Angkatan Tentera Amerika Syarikat semasa Perang Dunia Kedua.